A belga határ menti kisvárosban, Charleville-ben született 1854. október 20-án. Apja, egy kicsapongó életmódú katonatiszt hamar elhagyta családját, a fiú nevelése szigorú és buzgón vallásos kereskedőasszony anyjára maradt. A gyermek Rimbaud már igen korán kitűnt rendkívüli értelmével, az irodalom iránti érdeklődésével. Amikor tízévesen a helyi kollégiumba került, meglepően gyorsan megtanult latinul, és hamarosan lenyűgözte tanárait formakész latin költeményeivel.
Kezdetben a parnasszizmus hatott költészetére, tizenhat éves korában talált rá egyéni hangjára. Ekkori költeményeiben a nyomasztó kisvárosi környezet elleni lázadás keveredett a szabadság és a kaland utáni szenvedélyes vágyakozással, olyannyira, hogy 1870-ben megszökött és Párizsba indult. Mivel jegye nem volt, letartóztatták, rövid időre rácsok mögé került. Szabadulása után hónapokig csavargott Észak-Franciaországban és Belgiumban, mígnem anyja a rendőrséggel haza nem vitette. 1871 februárjában azonban újra elszökött, s önkéntesnek jelentkezett a párizsi kommün védelmére, bár valószínűleg nem harcolt fegyverrel. Három keserves hét után visszatért anyjához, s 1871 májusában megírta két fontos levelét Georges Izambard-nak, illetve Paul Demenynek, amelyekben megfogalmazta hitvallását a költő-látnok szerepről, az összes érzék összezavarásával létrejövő költői módszerről.
1871 augusztusában elküldte verseit Paul Verlaine-nek, akit annyira lenyűgöztek a költemények, hogy azonnal Párizsba hívta az ifjút. A személyes találkozás mindkettejük számára végzetes volt: parázs vitáktól sem mentes, féktelen és szenvedélyes homoszexuális kapcsolatuk botránykő volt a közvélemény szemében. 1872 márciusában Rimbaud visszatért Charleville-be, ahol megírta az Utolsó versek címen ismert költeményeit, amelyek mindegyikében a megtisztulás vágya fejeződik ki. Néhány hónappal később azonban Verlaine-nel egy időre Londonba költözött, ebben az időszakban írta meg negyven darabból álló prózavers-sorozatát Les Illuminations (Színvázlatok) címmel.
A két költő kapcsolata egyre feszültebbé vált, viták és hosszabb-rövidebb elválások követték egymást. 1873 júliusában a helyzet annyira elmérgesedett, hogy egy brüsszeli hotelszobában Verlaine rálőtt barátjára, és megsebesítette a csuklóján. Rimbaud kórházba, Verlaine két évre börtönbe került. A kórház után Rimbaud hazatért Charleville-be, és befejezte az Egy évad a pokolban című munkáját, mintegy összegezve addigi életét és munkásságát. A gyűjtemény utolsó darabja a Búcsú, amelyben a költő nosztalgikusan visszatekint múltbeli életére, aztán továbbindul, új utakat keresve nyugtalan vágyainak, végleg szakítva az irodalommal.
1875-ben elindult világot látni: gyalog átkelt az Alpokon, a Holland Kelet-Indiákon (Indonéziában) beállt a gyarmati hadseregbe, járt Egyiptomban, Cipruson építési felügyelő volt. Bejárta Etiópia belső vidékeit, kereskedett kávéval, kaucsukkal, elefántcsonttal és fegyverrel (rossz nyelvek szerint rabszolgákkal is), és tisztes vagyont halmozott fel. Egészsége azonban megromlott, és 1891 februárjában rákos daganat alakult ki a jobb térdén. Marseille-be hajózott, ahol hamarosan amputálták a lábát. Állapota nem javult, a kór megtámadta a többi végtagját is, és 1891. november 10-én, alig 37 évesen meghalt.
Rimbaud rendhagyó élete, szertelen és különc személye, sokszólamú költészete elvitathatatlan hatással volt az utókorra, őt tekintik a modernizmus atyjának. Magyarra a legnagyobb költők (Tóth Árpád, Babits Mihály, Kosztolányi Dezső, József Attila, Szabó Lőrinc) fordították. Alakja, Verlaine-nel való kapcsolata a filmeseket is megihlette, 1995-ben Agnieszka Holland készített róla filmet Teljes napfogyatkozás címmel, Rimbaud szerepében Leonardo DiCapróval.
Szülővárosában múzeuma működik. 2000 februárjában az etiópiai Hararban avatták fel az Arthur Rimbaud Emlékházat, ahol félezer cikk és kézirat, több száz fotó, dzsibuti, etiópiai és jemeni utazásainak nyomát felelevenítő CD-ROM-ok és videokazetták idézik a Részeg hajó szerzőjének emlékét. "Mert kit megfürdetett minden vizeknek búja, Nem szállhat révbe többé kalmárhajók után" - hangzik két sor a költeményből Tóth Árpád fordításában.